accelerate 使用心得
使用 accelerate 启动分布式训练。
单机多卡:
accelerate launch --multi_gpu --machine_rank "0" --num_machines "1" --num_processes "2" main.py
使用 accelerate 启动分布式训练。
单机多卡:
accelerate launch --multi_gpu --machine_rank "0" --num_machines "1" --num_processes "2" main.py